Prompt injection é "caso de polícia", alerta ministro Salomão
Fonte: Migalhas quentes
Tentativas de manipulação de sistemas de inteligência artificial no Judiciário,
como os casos de prompt injection identificados em petições, devem ser tratadas
como "caso de polícia". Assim afirmou o vice-presidente do STJ, ministro Luis
Felipe Salomão.
Em entrevista ao Migalhas durante o XIV Fórum de Lisboa, o ministro destacou
que o avanço das ferramentas tecnológicas, especialmente da IA, traz novas
questões ao sistema de Justiça, que precisam ser enfrentadas com rigor quando
ultrapassam o campo ético.
"Auando a IA é má utilizada, com má-fé, que transborda a questão puramente
ética, isso é caso de polícia, que tem que ser averiguado tanto no plano
administrativo quanto criminal."
O ministro observou que as chamadas injeções de prompt foram a forma mais
visível de um problema que, segundo ele, “não é tão novo” e já vinha ocorrendo
de forma pontual. Para Salomão, os tribunais precisarão acompanhar a evolução
das técnicas de manipulação e aperfeiçoar seus sistemas de IA para criar barreiras
contra esse tipo de tentativa.
No caso do STJ, o ministro afirmou que o sistema Logos, sistema de inteligência
artificial generativa desenvolvido pela Corte, já trabalha com mecanismos de
defesa, identificação de fraudes e detecção de problemas.
Para Salomão, a apuração e a punição adequada dos responsáveis podem
funcionar como mecanismo de prevenção. "Se nós apurarmos adequadamente e
punirmos adequadamente, a tendência é evitar que isso aconteça no futuro."
Apuração
A fala do ministro ocorre após o STJ informar que investigará tentativas de uso
de prompt injection em petições do acervo processual. A técnica consiste na
inserção de comandos ocultos em documentos com o objetivo de interferir no
funcionamento de sistemas de inteligência artificial.
Segundo a Corte, as ocorrências foram identificadas nas últimas semanas e
neutralizadas pelas camadas de segurança do Tribunal.
Na ocasião, o presidente do STJ, ministro Herman Benjamin, afirmou que os casos
serão mapeados para permitir a aplicação de sanções processuais e a apuração
de responsabilidade administrativa e criminal dos envolvidos.